OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全
OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
来自主题: AI技术研报
5664 点击 2024-11-06 14:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
Casetext 是一家已经做了 12 年的公司，最初用技术提高法律领域的文件处理效率，从 UGC 网站转型到 AI 技术方案，顺利找到 PMF，ARR 2000 万美元，估值 1 亿美元。
拥有「五感」的机器人离我们不远了。
创业中最危险的一句话：「我以后会赚钱」。 我开发的 AI 应用有 25 万用户，我感觉要起飞了，于是辞掉工作，准备大干一番。 结果没想到开局即巅峰，突然就完蛋了。 这几天，一个悲催的程序员创业故事在社交网络上流传，引发了人们的深思。
AI不断地为营销行业的各个领域带来创新。它能够有效地应对行业面临的许多挑战。但想要用 AI 改进产品的公司，需要在项目投入之前，验证其价值主张，并确保技术成熟度。
最近几天，谷歌、微软等老牌搜索巨头们的压力陡增！原来，向他们发起挑战的 AI 搜索领域「战火重燃」。
OpenAI 发布了备受期待的搜索产品，ChatGPT 搜索，以挑战谷歌。业界已经为这一时刻准备了几个月，这促使谷歌在今年早些时候将 AI 生成的答案注入其核心产品，并在此过程中产生了一些尴尬的幻觉。这一失误让许多人相信 OpenAI 的搜索引擎将真正成为“谷歌大杀器”。
Segment Anything Model 2（SAM 2）在传统视频目标分割任务大放异彩，引起了众多关注。然而，港中文和上海 AI Lab 的研究团队发现 SAM 2 的贪婪选择策略容易陷入「错误累积」的问题，即一次错误的分割掩码选择将影响后续帧的分割结果，导致整个视频分割性能的下降。这个问题在长视频分割任务中显得更加严重。
要么加入 AI，要么被淘汰
不确定是不是 OpenAI 又在狙击谷歌，ChatGPT 爆改 AI 搜索引擎只比谷歌的竞品迟到了一分钟。